MIT Tech Review：过度依赖 AI 拒绝机制或带来全球灾难风险

MIT Tech Review 在一篇评论文章中指出，AI 行业目前过度依赖模型的拒绝能力来防止滥用，但这种基于概率的机制并不可靠。文章称，把危险能力保留在模型内部、再训练其拒绝恶意指令，存在失效风险。文中还提到，已有用户尝试借助先进 AI 优化生物病原体或构建自主无人机群，而由 AI 公司单方面秘密划定服从与拒绝边界，同样引发争议。